Galerijski odjel osnovan je 1954. godine povezivanjem Galerije slika Grada Karlovca, osnovane 12. srpnja 1945. godine kao prve galerijske ustanove u Hrvatskoj osnovane nakon Drugog svjetskog rata, s Gradskim muzejom Karlovac.
Razdoblje samostalnog djelovanja Galerije slika grada Karlovca (1945.-1954.) karakterizira entuzijazam njezinih kustosa-čuvara (Nikola Dragarić, Branko Kozina); oskudna financijska sredstva; nedostatak i nesigurnost prostora potrebnih za obavljanje muzejske djelatnosti, te činjenica da je komunikacijska djelatnost Galerije slika usprkos svim teškoćama postala prepoznatljiva društvena i kulturna činjenica u lokalnim okvirima zahvaljujući potpori iz Zagreba i suradnji sa suvremenim karlovačkim slikarima. Nakon Ivane Fadejev Vrbanić brigu o zbirci vode kustosi: Aleksandar Strzalkowski (1964.-1967.), Petar Skutari (1973.-1994.), Nikola Albaneže (1994.-2000.) i Antonija Škrtić. Od godine 2010. jedinstvena zbirka galerijskog odjela razvrstana je u više zbirki. Umjetnine ovih zbirki prezentiraju se povremenim izložbama.
Voditeljica odjela: Antonija Škrtić, muzejska savjetnica